Trong cuộc Vạn lý Trường chinh, sau thảm bại ở Tương Giang, tại Đại hội Tuân Nghĩa, quyền lãnh đạo đảng và quân đội của Lý Đức và Bác Cổ bị chống đối một cách quyết liệt. Kết quả hội nghị là Trương Văn Thiên lên làm tổng bí thư, (tuy nhiên quyền hành thực tế nằm trong tay Mao Trạch Đông.) Năm 1951, ông được bổ nhiệm làm Đại sứ Trung Quốc tại Liên Xô, từ năm 1954 đến năm 1960, ông là thứ trưởng Bộ Ngoại giao của nước Cộng hòa nhân dân Trung Hoa.